Dynamo Dresden

Sammer memulakan kerjayanya di Dynamo Dresden apabila beliau menyertai pasukan belia kelab tersebut pada usia sembilan tahun pada tahun 1976.[1] Beliau melakukan penampilan sulung untuk pasukan senior ketika Dresden di bawah kendalian bapanya, Klaus Sammer pada musim 1985–86. Dengan bermain di posisi penyerang, beliau menjaringkan lapan gol pada musim pertamanya di Dynamo. Selepas berpindah ke posisi sayap kiri pada musim berikutnya oleh jurulatih baru, Eduard Geyer. Beliau akhirnya menemui posisinya iaitu pemain tengah pada musim 1987–88.

Pada musim 1988–89, Sammer sebahagian daripada pasukan Dynamo Dresden yang menjuarai kejuaraan bola sepak Jerman Timur. Pada musim yang sama, beliau turut membantu pasukannya mara ke separuh akhir Piala UEFA sebelum tersingkir di tangan pasukan dari negara jiran, VfB Stuttgart. Pada tahun berikutnya, Dynamo mempertahankan kejuaraan liga dan meraih FDGB-Pokal.

VfB Stuttgart

Pada musim panas 1990, Sammer sertai kelab VfB Stuttgart di Bundesliga. Sammer menjaringkan sebelas gol pada musim pertamanya dan menyaksikan Stuttgart menamatkan musim di tangga keenam liga. Pada musim berikutnya, Sammer menjaringkan sembilan gol sekali gus membantu Stuttgart menjadi juara pertama Bundesliga selepas penyatuan semula Jerman.

Internazionale

Selepas dua musim di Stuttgart, Sammer menyertai kelab Serie A, Internazionale bagi menghadapi musim 1992-93. Walaupun beliau mempamerkan aksi cemerlang di atas padang, beliau hanya menjaringkan empat gol dalam sebelas penampilan termasuk satu gol menentang Juventus dalam Derby d'Italia. Sammer gagal menyesuaikan diri di Itali dan membuat keputusan kembali ke Jerman pada Januari 1993.

Borussia Dortmund

Ketika jendela perpindahan musim sejuk 1992-93, Sammer melakukan perpindahan ke Borussia Dortmund. Pada musim pertamanya, beliau melakukan 17 penampilan liga dan menjaringkan sepuluh gol.

Pada musim berikutnya, Sammer menukar posisi beliau dari pemain tengah ke libero oleh jurulatih Dortmund, Ottmar Hitzfeld. Pemindahan posisi ini menunjukkan perubahan drastik kelab apabila Dortmund kembali menjadi juara liga buat dua musim berturut-turut pada musim 1994–95 dan 1995–96 serta diikuti kejayaan Liga Juara-Juara pada musim 1996-97 sementara Sammer menjulang trofi Piala Eropah sebagai kapten pasukan selepas menumbangkan Juventus 3-1 yang berlangsung di Stadium Olimpik di Munich.

Sepanjang kariernya di Dortmund, Sammer berjaya meraih dua gelaran Bundesliga, satu trofi Liga Juara-Juara dan dua trofi DFB-Supercup. Selain itu, Sammer dinobatkan sebagai Pemain Bola Sepak Terbaik Jerman selama dua tahun berturut-turut iaitu pada tahun 1995 dan 1996. Di samping itu, beliau juga meraih anugerah himself Pemain Bola Sepak Terbaik Eropah pada tahun 1996 sekali gus menjadikan beliau pemain pertahanan kedua meraih Ballon d'Or sejak Franz Beckenbauer merangkul anugerah itu pada tahun 1976.